Mùa xuân năm 28, Duyên tấn công Tô Mậu, Chu Kiến ở Kỳ, giao chiến với Đổng Hiến ở Lưu Hạ, đều phá được. Nhân đó sai Bình Địch tướng quân Bàng Manh đánh Tây Phòng, nhổ được. Lại đuổi theo đánh bại Chu Kiến, Tô Mậu ở Bành Thành, Mậu, Kiến chạy sang với Đổng Hiến. Tướng của Đổng Hiến là Bí Hưu dâng thành Lan Lăng đầu hàng. Hiến nghe tin, từ Đàm đi vây Bí Hưu. Khi ấy, Cái Diên cùng Bàng Manh ở Sở, xin đi cứu, Quang Vũ đế có sắc khuyên nên tấn công Đàm để giải vây cho Lan Lăng. Cái Diên cùng các tướng cho rằng Bí Hưu đang nguy, nên đến gấp. Hiến vừa đánh đã chạy, Cái Diên nhân đó phá vòng vây mà vào thành.

Hôm sau, Đổng Hiến đưa đại quân đến vây, các tướng sợ, đột vây chạy ra ngoài, nhân đó đi đánh Đàm. Quang Vũ đế cho rằng đã lỡ mất thời cơ, có đi cũng vô ích. Quân Cái Diên không hạ được Đàm, còn Đổng Hiến chiếm được Lan Lăng, giết Bí Hưu. Quân Cái Diên giao chiến với biệt tướng của Hiến ở khoảng Bành Thành, Đàm, Bi, qua lại vài mươi trận, có thắng có thua. Quang Vũ đế cho rằng Cái Diên khinh địch vào sâu, mấy lần gởi thư răn đe. Khi Bành Manh làm phản, giết thái thú quận Sở, đưa quân tập kích đánh bại Cái Diên. Cái Diên vượt Tứ Thủy chạy lên phía bắc, phá Chu Tiếp, hủy Tân Lương, công tội bù nhau.

Quang Vũ đế sắp tự mình đông chinh, triệu Cái Diênn cùng Đại tư mã Ngô Hán, Hán Trung tướng quân Vương Thường, Tiền tướng quân Vương Lương, Bộ Lỗ tướng quân Mã Vũ, Thảo Lỗ tướng quân Vương Bá hội quân tại Nhâm Thành, đánh dẹp Bàng Manh ở Đào Hương. Cái Diên tham gia chinh phạt Đổng Hiến ở Xương Lự, đều phá được.